Mundo
Inteligência Artificial. Anthropic bloqueia tentativas de produção de armas biológicas
A Anthropic anunciou esta quinta-feira que já bloqueou potenciais tentativas de produzir armas biológicas. Na impossibilidade de determinar a legitimidade das pesquisas, a empresa interrompeu a troca de informações e baniu os perfis associados às investigações.
Os cientistas estariam a aproveitar os modelos de inteligência artificial de ponta para desenvolver as suas investigações e, possivelmente, recolherem informações necessárias à criação de armas biológicas, entre as quais armas de fogo, mísseis, drones e bombas.
Perante esta incerteza, a empresa decidiu apagar definitivamente a busca por estes dados, afirmando que as suas consequências poderiam ser graves.
O relatório destacou ainda os casos em que os meios de comunicação estatais russos utilizaram a ferramenta de conversação Claude para gerar propaganda política online que se fazia passar por conteúdos informativos independentes.
Andrew Weber, investigador do Conselho de Riscos Estratégicos dos Estados Unidos, descreveu como “arrepiantes” os exemplos referidos os longo do relatório.
A Anthropic já veio a público confirmar que os seus modelos atuais estão mais aptos a realizar investigação científica complexa, obrigando à adoção de medidas de segurança mais rigorosas.
A utilização de IA por redes terroristas entra agora no leque das mais recentes preocupações para a segurança humana.
A evolução da tecnologia da inteligência artificial tem levantado novas dúvidas e receios nos últimos dias, nomeadamente entre os seus criadores, que acreditam que o ser humano pode deixar de ter a capacidade de a controlar totalmente num futuro próximo.
Foram detalhados três casos na China, dois na Rússia e um no Iémen, referentes aos últimos oito meses.
Esta pesquisa faz parte de um conjunto de utilizações dos modelos de inteligência artificial que a Anthropic classifica como indevidas.No relatório divulgado esta quinta-feira, a Anthropic explicou ser impossível determinar o propósito de algumas pesquisas centradas na investigação biológica, uma vez que até a procura de informação válida pode conter informações essenciais à criação de agentes patogénicos perigosos.
“Não se vê ninguém a dizer: ‘Quero construir uma arma biológica para matar toda a gente’ (…) É uma situação complexa”, explicou Jacob Klein, diretor de inteligência de ameaças da Anthropic.
“Não se vê ninguém a dizer: ‘Quero construir uma arma biológica para matar toda a gente’ (…) É uma situação complexa”, explicou Jacob Klein, diretor de inteligência de ameaças da Anthropic.
Perante esta incerteza, a empresa decidiu apagar definitivamente a busca por estes dados, afirmando que as suas consequências poderiam ser graves.
O relatório destacou ainda os casos em que os meios de comunicação estatais russos utilizaram a ferramenta de conversação Claude para gerar propaganda política online que se fazia passar por conteúdos informativos independentes.
Andrew Weber, investigador do Conselho de Riscos Estratégicos dos Estados Unidos, descreveu como “arrepiantes” os exemplos referidos os longo do relatório.
A Anthropic já veio a público confirmar que os seus modelos atuais estão mais aptos a realizar investigação científica complexa, obrigando à adoção de medidas de segurança mais rigorosas.
A utilização de IA por redes terroristas entra agora no leque das mais recentes preocupações para a segurança humana.
A evolução da tecnologia da inteligência artificial tem levantado novas dúvidas e receios nos últimos dias, nomeadamente entre os seus criadores, que acreditam que o ser humano pode deixar de ter a capacidade de a controlar totalmente num futuro próximo.
